AMD có một bước nhảy vọt lớn trong AI với ROCM;Thông báo Tích hợp với GPUS của Strix Halo Apus & Radeon RX 9000

Một trong những thông báo quan trọng và ít được chú ý của AMD tại Computex là sự hỗ trợ ROCm cho Strix Halo và GPU RDNA 4, có thể thay đổi cách chúng ta sử dụng AI. Bộ phần mềm ROCm của AMD hiện tập trung vào các sản phẩm dành cho người tiêu dùng, và RDNA 4 sẽ hưởng lợi rất nhiều từ bản cập nhật mới. AMD đã nỗ lực đáng kể trong lĩnh vực AI ở cấp độ khách hàng, không chỉ với khả năng phần cứng mà còn xây dựng một hệ sinh thái cho người tiêu dùng.

Có những nghi ngờ về việc ROCm có được hỗ trợ trên GPU RDNA 4 của Team Red hay không, nhưng Team Red đã gây bất ngờ khi công bố ROCm 6.4.1, không chỉ hỗ trợ GPU RX 9070 mà còn cả APU Strix Halo, khiến phần mềm này trở thành một trong những lựa chọn mạnh mẽ nhất cho người tiêu dùng. ROCm của AMD đang hướng tới việc trở thành một sự thay thế khả thi cho CUDA của NVIDIA, và việc hỗ trợ nhiều thư viện AI cho các sản phẩm tiêu dùng sẽ cho phép người dùng tận dụng động cơ AI XDNA 2 tích hợp.

Với ROCm, hiệu suất AI sẽ được tối ưu hóa cho 40 CU RDNA 3.5 và 16 lõi Zen 5 với AVX512, mang lại cải thiện đáng kể, đặc biệt trong các ứng dụng inference và training. Đối với GPU RDNA 4, ROCm sẽ cho phép tận dụng các Compute Units và bộ tăng tốc AI cho nhiều ứng dụng. Ngoài ra, các GPU dòng RX 9000 giờ đây có thể chạy các framework như PyTorch 2.

52.6 và Megatron-LM cho phép người tiêu dùng trung bình chạy LLMs và Stable Diffusion ngay tại nhà, đánh dấu sự chuyển mình lớn từ AI dành cho chuyên gia sang AI cho mọi người. Điều này có thể khởi đầu một cuộc cách mạng AI biên nếu AMD phát triển thành công phần mềm ROCm. Thú vị là Microsoft vừa mã nguồn mở WSL (Windows Subsystem for Linux), và phiên bản ROCm mới hoạt động khá tốt với môi trường WSL, mở ra nhiều cơ hội hơn nữa.

Hỗ trợ WSL giúp tích hợp liền mạch các công cụ AI của ROCm, tập trung vào Linux, vào Windows, cho phép các nhà phát triển sử dụng môi trường quen thuộc để truy cập và phát triển hệ sinh thái ROCm, thúc đẩy sự chấp nhận trong tương lai. AMD đã thông báo rằng họ sẽ mở rộng hỗ trợ ROCm trên các bản phân phối Linux như OpenSuSE và sẽ mở rộng sang các tùy chọn khác như Ubuntu vào nửa thứ hai năm 2025.

Đây chắc chắn là khởi đầu cho AMD trong việc cạnh tranh với hệ sinh thái CUDA của NVIDIA. Tập trung chủ yếu vào phân khúc người tiêu dùng, vì Team Red có danh mục phần cứng mạnh mẽ, điều này rất phù hợp với họ.